1단계: 치역의 원소에 대한 필요조건 분석
함수 \(f\)의 치역을 \(A = f(X)\)라 하자. 임의의 \(y \in A\)에 대하여 치역의 정의상 \(f(x_0) = y\)를 만족하는 \(x_0 \in X\)가 적어도 하나 존재한다.
조건 (가)의 \(f(f(x)) = f(x)\)에 \(x = x_0\)를 대입하면 \[ f(f(x_0)) = f(x_0) \implies f(y) = y \] 가 성립한다. 즉, 치역 \(A\)에 속하는 모든 원소는 자기 자신으로 대응된다(\(y \in A \implies f(y) = y\)).

2단계: 치역 집합 \(A\)를 선택하는 경우의 수
조건 (나)에서 치역 \(A\)의 원소의 개수는 \(3\)이다.
전체 원소 \(5\)개 중에서 치역이 될 원소 \(3\)개를 선택하는 경우의 수는 제시문 [나]의 조합에 의하여 \[ \binom{5}{3} = \frac{5 \times 4 \times 3}{3 \times 2 \times 1} = 10 \] 가지이다.

3단계: 치역에 속하지 않는 원소들의 대응 경우의 수
선택된 치역을 \(A\)라 하고, 치역에 속하지 않는 원소의 집합을 \(X \setminus A\)라 하자. \(|X \setminus A| = 5 - 3 = 2\)이다.
치역에 속하지 않는 임의의 원소 \(z \in X \setminus A\)에 대하여, \(f(z)\)는 반드시 함수 \(f\)의 치역의 원소이어야 하므로 \(f(z) \in A\)이어야 한다.
치역 \(A\)의 원소의 개수가 \(3\)개이므로, \(X \setminus A\)에 속하는 각 원소가 취할 수 있는 함숫값의 가짓수는 각각 \(3\)가지이다.
따라서 남은 \(2\)개의 원소가 대응되는 경우의 수는 곱의 법칙에 의하여 \[ 3 \times 3 = 3^2 = 9 \] 가지이다.

4단계: 전체 함수의 개수 계산
치역 \(A\)의 선택과 치역 외 원소들의 대응은 독립적으로 결정되므로, 구하는 함수 \(f\)의 총 개수는 \[ 10 \times 9 = 90 \] 이다.
따라서 조건을 만족시키는 함수 \(f\)의 개수는 \(90\)이다.

(1) 함수 \(f(x)\)의 극댓값과 극솟값 구하기
함수 \(f(x) = x^3 - 3x^2 - 9x + a\)의 도함수를 구하면 \[ f'(x) = 3x^2 - 6x - 9 = 3(x^2 - 2x - 3) = 3(x+1)(x-3) \] 이다. \(f'(x)=0\)의 근은 \(x = -1\) 또는 \(x = 3\)이다.
도함수의 부호 변화를 조사하면 - \(x < -1\)에서 \(f'(x) > 0\) (증가) - \(-1 \lt x \lt 3\)에서 \(f'(x) < 0\) (감소) - \(x > 3\)에서 \(f'(x) > 0\) (증가) 이므로, \(f(x)\)는 \(x=-1\)에서 극대, \(x=3\)에서 극소를 갖는다.
- 극댓값: \[ f(-1) = (-1)^3 - 3(-1)^2 - 9(-1) + a = -1 - 3 + 9 + a = a + 5 \] - 극솟값: \[ f(3) = 3^3 - 3(3^2) - 9(3) + a = 27 - 27 - 27 + a = a - 27 \] 이다.

(2) 미분가능하지 않은 점의 개수가 1이 되는 조건
\(h(x) = f(x) - 10\)이라 두면 \(g(x) = |h(x)|\)이다.
제시문 [가]에 의하여, 삼차함수 \(h(x)\)에 대하여 방정식 \(h(x) = 0 \iff f(x) = 10\)의 실근 중 접선의 기울기가 \(0\)이 아닌 단순 실근(홀수 차수 근)에서는 꺾임이 발생하여 미분가능하지 않고, 중근(짝수 차수 근 또는 삼중근)에서는 미분가능하다.
따라서 \(g(x)\)가 미분가능하지 않은 점의 개수가 오직 1이라는 것은 방정식 \(f(x) = 10\)이 오직 하나의 단순 실근만을 갖거나, 또는 하나의 단순 실근과 하나의 이중근을 갖는 경우를 뜻한다.
삼차함수 곡선 \(y=f(x)\)와 직선 \(y=10\)의 위치 관계에 따라: - 직선 \(y=10\)이 극댓값보다 위쪽에 위치하는 경우: \[ 10 \ge a + 5 \implies a \le 5 \] (단, \(10 = a+5\)일 때는 극대점에서 접하므로 이중근 1개와 단순 실근 1개를 가져 미분불가점은 1개이다.)
- 직선 \(y=10\)이 극솟값보다 아래쪽에 위치하는 경우: \[ 10 \le a - 27 \implies a \ge 37 \] (단, \(10 = a-27\)일 때는 극소점에서 접하므로 이중근 1개와 단순 실근 1개를 가져 미분불가점은 1개이다.)
반면, 극솟값과 극댓값 사이(\(a-27 < 10 < a+5\))에 직선이 위치하면 서로 다른 세 실근을 가지므로 미분불가능한 점이 3개가 된다.

따라서 구하는 실수 \(a\)의 값의 범위는 \[ a \le 5 \quad \text{또는} \quad a \ge 37 \] 이다.

(1) 오목과 볼록 판정 및 접선의 방정식
함수 \(f(x) = x \ln x\)의 1계 도함수와 2계 도함수를 구하면 다음과 같다: \[ f'(x) = 1 \cdot \ln x + x \cdot \frac{1}{x} = \ln x + 1 \] \[ f''(x) = \frac{1}{x} \] 정의역 \(x > 0\)에서 항상 \(f''(x) = \frac{1}{x} > 0\)이므로, 제시문 [가]에 의하여 곡선 \(y=f(x)\)는 구간 \((0, \infty)\)에서 아래로 볼록하다.
점 \((e, e)\)에서의 접선의 기울기는 \(f'(e) = \ln e + 1 = 1 + 1 = 2\)이다.
따라서 구하는 접선의 방정식은 \[ y - e = 2(x - e) \implies y = 2x - e \] 이다.

(2) 둘러싸인 도형의 넓이 계산
곡선 \(y=x\ln x\)가 아래로 볼록하므로 접선 \(y=2x-e\)는 접점 \((e, e)\)를 제외하고 항상 곡선의 아래쪽에 위치한다. 즉, 구간 \([1, e]\)에서 \(x\ln x \ge 2x - e\)이다.
제시문 [나]에 의하여 구하고자 하는 넓이 \(S\)는 \[ S = \int_1^e \{ x \ln x - (2x - e) \}\,dx = \int_1^e x \ln x\,dx - \int_1^e (2x - e)\,dx \] 이다.
1) \(\int_1^e x \ln x\,dx\)를 부분적분법으로 계산: \(u = \ln x, v' = x \implies u' = \frac{1}{x}, v = \frac{1}{2}x^2\)이므로 \[ \begin{aligned} \int_1^e x \ln x\,dx &= \left[ \frac{1}{2}x^2 \ln x\right]_1^e - \int_1^e \frac{1}{2}x\,dx \\ &= \frac{e^2}{2} - \left[ \frac{1}{4}x^2\right]_1^e = \frac{e^2}{2} - \frac{e^2 - 1}{4} = \frac{e^2 + 1}{4} \end{aligned} \] 2) \(\int_1^e (2x - e)\,dx\) 계산: \[ \int_1^e (2x - e)\,dx = \left[ x^2 - ex\right]_1^e = (e^2 - e^2) - (1 - e) = e - 1 \] 따라서 구하는 넓이 \(S\)는 \[ S = \frac{e^2 + 1}{4} - (e - 1) = \frac{e^2 + 1 - 4e + 4}{4} = \frac{e^2 - 4e + 5}{4} \] 이다.
정답: (1) 아래로 볼록, \(y = 2x - e\), (2) \(\frac{e^2 - 4e + 5}{4}\)

1단계: 치환 변수 설정 및 미분 요소 계산
피적분함수에서 근호 안의 식을 \(t = x^2 + 1\)로 치환하자.
양변을 \(x\)에 대하여 미분하면 \[ \frac{dt}{dx} = 2x \implies x\,dx = \frac{1}{2}\,dt \] 이다. 또한 \(x^2 = t - 1\)이므로 피적분함수의 분자는 \[ x^3\,dx = x^2 \cdot (x\,dx) = (t - 1) \cdot \frac{1}{2}\,dt \] 로 변형된다.

2단계: 적분 구간의 변환
\(x\)의 범위가 \(0\)에서 \(1\)까지 변할 때, 치환 변수 \(t = x^2 + 1\)의 대응 범위는 다음과 같다: - \(x = 0\)일 때, \(t = 0^2 + 1 = 1\) - \(x = 1\)일 때, \(t = 1^2 + 1 = 2\) 따라서 적분 구간은 \([0, 1]\)에서 \([1, 2]\)로 바뀐다.

3단계: 정적분 계산 및 결과 도출
제시문 [가]의 치환적분법을 적용하면 \[ I = \int_1^2 \frac{t - 1}{\sqrt{t}} \cdot \frac{1}{2}\,dt = \frac{1}{2} \int_1^2 \left( \frac{t}{t^{1/2}} - \frac{1}{t^{1/2}}\right)\,dt = \frac{1}{2} \int_1^2 (t^{1/2} - t^{-1/2})\,dt \] 이다. 제시문 [나]의 거듭제곱 적분 공식에 의하여 \[ \int (t^{1/2} - t^{-1/2})\,dt = \frac{2}{3}t^{3/2} - 2t^{1/2} \] 이므로 \[ I = \frac{1}{2} \left[ \frac{2}{3}t^{3/2} - 2t^{1/2}\right]_1^2 = \left[ \frac{1}{3}t\sqrt{t} - \sqrt{t}\right]_1^2 \] 이다. 위끝과 아래끝을 대입하면 - \(t = 2\) 대입: \(\frac{1}{3}(2)\sqrt{2} - \sqrt{2} = \frac{2\sqrt{2}}{3} - \sqrt{2} = -\frac{\sqrt{2}}{3}\) - \(t = 1\) 대입: \(\frac{1}{3}(1)\sqrt{1} - \sqrt{1} = \frac{1}{3} - 1 = -\frac{2}{3}\) 따라서 \[ I = \left( -\frac{\sqrt{2}}{3}\right) - \left( -\frac{2}{3}\right) = \frac{2 - \sqrt{2}}{3} \] 이다.
따라서 구하는 정적분의 값은 \(\frac{2 - \sqrt{2}}{3}\)이다.